Mir Qamar-ud-din Khan (còn được gọi là Nizam) là con trai của Ghazi ud-Din Khan Feroze Jung I và Wazir un-nissa (Safia Khanum) - kết hôn vào năm 1670. Mẹ của Nizam là con gái của Sadullah Khan Đại tể tướng (1645-1656) của Hoàng đế Mogul Shah Jahan, trong thời gian hoàn thành Taj Mahal.[5][6] Mặc dù thông qua cha mình, ông là hậu duệ của Abu Bakr, vị caliph đầu tiên của Hồi giáo, tổ tiên của ông có nguồn gốc từ Shihab al-Din 'Umar al-Suhrawardi (1145–1234). Ông cố của ông là Alam Sheikh là một vị thánh Sufi giáo của Bukhara (thuộc Uzbekistan ngày nay), ông được Imam Quli Khan (1611–1642) của Phó vương quốc Bukhara phong là Azam ul Ulama. Ông nội của ông là Kilich Khan đến từ Samarkand thuộc Uzbekistan ngày nay.[7] Năm 1654, Kilich Khan đến Ấn Độ lần đầu tiên khi đang trên đường đến lễ Hajj (hành hương Hồi giáo) dưới thời trị vì của hoàng đế Mogul Shah Jahan. Sau khi hoàn thành cuộc hành hương, ông di cư đến Ấn Độ và gia nhập quân đội của hoàng tử Mogul Aurangzeb ở Deccan vào năm 1657.[8] Khan đã chiến đấu trong trận Samugarh kết thúc với sự thất bại của Dara Shikoh, anh trai của Aurangzeb.[9] Bên cạnh vai trò chỉ huy trong quân đội của Aurangzeb, ông cũng từng là thống đốc của Zafarabad (Bidar ngày nay).[10] Con trai cả của Khan và cha của Nizam-ul-Mulk là Feroze Jung đã di cư đến Ấn Độ vào năm 1669, và được làm việc trong quân đội của Aurangzeb, được phong tướng và sau đó là thống đốc của Gujarat.[11][12]